APDEJT.si

Freelance razvojna platforma Toptal je nepričakovano širila zlonamerno programsko opremo, potem ko so napadalci vdeli v njene sisteme. Zlonamerna koda je bila prisotna v več kot 5.000 prenosih. Hkrati sta se pojavila dva incidenta, kjer sta napredna AI orodja za kodiranje uničila uporabniške podatke zaradi kaskadnih napak, kar poudarja tveganja pri ustvarjanju kode z umetno inteligenco brez natančnega nadzora.

Podjetje Cloudflare je predstavilo nova orodja za ničelno zaupanje, namenjena varnejši uporabi umetne inteligence (AI) v podjetjih, vključno z orodji za spremljanje uporabe AI, zaščito pred 'Shadow AI' in varovanje občutljivih podatkov. Obenem so lansirali funkcijo Application Confidence Scores za ocenjevanje varnosti in zanesljivosti orodij AI tretjih oseb. Strokovnjaki medtem opozarjajo na naraščajoče tveganje 'Shadow AI' in poudarjajo pomen vzpostavitve varnih temeljev za eksperimentiranje z AI. Meg Anderson, strokovnjakinja za kibernetsko varnost, svetuje voditeljem, da se osredotočijo na odnose z dobavitelji, razvoj kadrov in nove grožnje, kot so deepfakes in ransomware-as-a-service. Cloud Security Alliance pa združuje vire za vzpostavitev zanesljivih zaščitnih ukrepov za AI.